ChatGPT: la nuova versione fa paura, in tutti i sensi

Una delle principali limitazioni imposte da OpenAI a questa nuova funzione riguarda la capacità del chatbot di rispondere a domande che identificano gli esseri umani: “Sono programmato per dare priorità alla privacy e alla sicurezza degli utenti. L’identificazione di persone reali sulla base di immagini, anche se famose, è limitata per rispettare queste priorità”, mi ha detto il chabtot. Davanti a immagini pornografiche, in alcuni il chatbot ha risposto alle mie domande, esitando però fornire descrizioni specifiche degli attori ritratti e limitandosi a illustrare i loro tatuaggi.

Vale la pena notare che durante una conversazione ho avuto l’impressione che la versione preliminare del nuovo ChatGPT aggirasse parte dei limiti imposti da OpenAI. All’inizio, il chatbot si è rifiutato di identificare un meme con protagonista Bill Hader. Poi però ChatGPT ha ipotizzato che un’immagine di Brendan Fraser in George re della giungla…? mostrasse Brian Krause di Streghe. Quando gli ho chiesto se era sicuro della sua risposta, il chatbot si è corretto. Nella stessa conversazione, ChatGPT si è confuso nel tentativo di descrivere un’immagine di RuPaul’s Drag Race. Quando ho condiviso uno screenshot di Kylie Sonique Love, una delle drag queen in gara nel programma, il sistema l’ha identificata come Brooke Lynn Hytes, un’altra concorrente. Ho contestato la risposta del chatbot, che per tutta risposta mi ha indicato una serie di altre participanti allo show. “Mi scuso per le sviste e le identificazioni errate“, mi ha scritto il chatbot quando gli ho fatto notare le continue risposte sbagliate. Quando ho caricato una foto del genero di Donald Trump ed ex consulente del governo americano Jared Kushner, ChatGPT ha rifiutato di identificarlo.

Se in futuro le protezioni del sistema venissero rimosse – attraverso una forma di manomissione oppure grazie a un modello open source lanciato in futuri – le implicazioni per la privacy potrebbero essere piuttosto inquietanti. Cosa succederebbe se ogni vostra foto pubblicata online fosse facilmente collegabile alla vostra identità con pochi clic? E se qualcuno potesse farvi una foto in pubblico senza consenso e trovare immediatamente il vostro profilo LinkedIn? Senza un’adeguata protezione della privacy per queste nuove funzioni, è probabile che donne e minoranze in particolare siano vittime di abusi da parte di individui che sfruttano i chatbot a scopo di stalking e molestie.

Questo articolo è apparso originariamente su Wired US.